Grok sui "gravi difetti" nelle risposte alla guerra in Medio Oriente

Mentre la verifica dei fatti da parte dei giornalisti su piattaforme come Facebook diminuisce gradualmente, sempre più utenti di Internet si rivolgono a strumenti di intelligenza artificiale come Grok per trovare informazioni affidabili, ma le risposte che ricevono a volte li espongono alla disinformazione.

Secondo lo studio pubblicato martedì dal Digital Forensic Research Laboratory (DFRLab) dell'Atlantic Council, un think tank statunitense, le prestazioni di Grok durante i primi giorni del conflitto tra Israele e Iran "hanno rivelato difetti significativi e dimostrato i limiti del chatbot nel fornire informazioni accurate, affidabili e coerenti in tempi di crisi".

L'analisi ha coinvolto 130.000 messaggi in più lingue sulla piattaforma X, che integra il chatbot Grok, e ha stabilito che quest'ultimo "ha avuto difficoltà ad autenticare i contenuti generati dall'intelligenza artificiale".

Ad esempio, dopo gli attacchi di rappresaglia iraniani contro Israele, Grok ha fornito risposte molto diverse a istruzioni simili su immagini generate dall'intelligenza artificiale di un aeroporto distrutto, che hanno totalizzato milioni di visualizzazioni su X.

Le risposte oscillavano, a volte nello stesso minuto, tra la negazione della distruzione dell'aeroporto e la conferma che era stato colpito da attacchi.

In alcune risposte, Grok ha affermato che la causa del danno era un missile lanciato dallo Yemen, mentre in altre ha identificato falsamente l'aeroporto in questione come situato a Beirut, Gaza o Teheran.

Secondo gli esperti, Grok è già stato "colto in fallo" nelle sue risposte di fact-checking durante il recente conflitto tra India e Pakistan e durante le proteste a Los Angeles contro le politiche anti-immigrazione di Donald Trump.

Il mese scorso, anche il servizio di intelligenza artificiale dell'imprenditore sudafricano Elon Musk ha suscitato polemiche quando ha erroneamente fatto riferimento al "genocidio bianco" in Sudafrica, un errore che xAI ha poi attribuito a una "modifica non autorizzata".

Leggi anche: L'UE discute dei conflitti in Ucraina e in Medio Oriente dopo il vertice NATO